Kiều Công Tiễn vốn là hào trưởng Phong Châu (Phú Thọ) từ thời họ Khúc tự chủ. Khi vua Nam Hán xâm chiếm Tĩnh Hải quân (tên gọi Việt Nam lúc đó), bắt Khúc Thừa Mỹ, tướng cũ của họ Khúc là Dương Đình Nghệ tập hợp lực lượng ở Ái châu để chống Hán.

Kiều Công Tiễn đến theo Dương Đình Nghệ và được Dương Đình Nghệ dùng làm gia tướng. Một số tài liệu nói rằng Dương Đình Nghệ nhận tất cả 3.000 tráng sĩ đến đầu quân làm "con nuôi" (nghĩa tử) và Kiều Công Tiễn cũng ở trong số đó.

Năm 931, Kiều Công Tiễn theo Dương Đình Nghệ tiến quân ra Bắc đánh đuổi quân Nam Hán về nước. Dương Đình Nghệ tự xưng là Tiết độ sứ, Tiễn được sai giữ Phong Châu.